Perché l'intelligenza umana batte ancora gli algoritmi by Gerd Gigerenzer

autore:Gerd Gigerenzer
La lingua: eng
Format: epub
editore: Raffaello Cortina Editore
pubblicato: 2023-01-24T00:00:00+00:00

Perché usiamo gli algoritmi della scatola nera quando non ne abbiamo bisogno?

Al Consiglio consultivo discutemmo molte questioni fondamentali. I consumatori dovrebbero avere il diritto di sapere perché viene loro negato un prestito o perché non vengono ammessi a un colloquio? Chi attribuisce punteggi di affidabilità creditizia dovrebbe essere obbligato a rivelare le caratteristiche e i pesi dei suoi algoritmi al pubblico invece che soltanto agli agenti di protezione dei dati? Ai segreti aziendali andrebbe riconosciuto un valore superiore a quello dei diritti dei cittadini di capire i loro punteggi? Benché queste questioni etiche fossero in primo piano, mi accorsi ben presto che una questione veniva data per scontata: che gli algoritmi delle scatole nere siano accurati. L’idea che regole trasparenti potessero funzionare altrettanto bene non venne affatto in mente alla maggior parte dei funzionari governativi.

La fede nella complessità e nell’opacità

Nel 2018, la società di analisi fico, Google e varie università organizzarono una prestigiosa competizione, la Explainable Machine Learning Challenge (la sfida dell’apprendimento automatico spiegabile). Con l’aiuto di fico, che fornì i dati di migliaia di individui, compresi i loro movimenti bancari, il compito consisteva nel creare un complicato modello di scatola nera per predire l’insolvenza e spiegare la scatola nera.46 Le gare fra algoritmi non sono una novità, ma questo fu uno dei primi eventi cruciali che riconoscesse la necessità di dare un senso ai complessi modelli di scatola nera. Comunque, per il Challenge valeva il presupposto che occorrano realmente modelli complessi per predire l’insolvenza. Solo uno dei team che partecipavano alla gara, un gruppo di ricercatori della Duke University, assunse un approccio radicalmente diverso. Svilupparono e testarono un software comprensibile e comprendente visualizzazioni che consentono alle persone di sondare i fattori di accreditamento per vedere come influenzino le decisioni relative alle richieste di prestito. L’ia che avevano sviluppato non solo era trasparente, ma nel predire l’insolvenza era anche altrettanto accurata delle reti neurali profonde e di altri modelli complessi di scatola nera. Il team vinse il fico Recognition Award per “aver superato le aspettative con un modello globale totalmente trasparente e un pannello di controllo di facile utilizzo”.47

Il Challenge dimostra una profonda fede in due proposizioni:

La fede nella complessità: i problemi complessi hanno sempre bisogno di soluzioni complesse.

La fede nell’opacità: gli algoritmi più accurati devono essere necessariamente incomprensibili.

Mettete insieme queste due fedi e otterrete la credenza nel dilemma accuratezza-trasparenza: più l’algoritmo è accurato, meno sarà trasparente. Si ritiene largamente – ed erroneamente – che questo dilemma sia generalmente vero.48 Regge in giochi ben definiti e in altre situazioni stabili, ma non in condizioni di incertezza. Come dimostrò quel team che partecipava al Challenge, nel predire l’insolvenza un’ia comprensibile può essere altrettanto accurata della scatola nera. Ecco l’idea generale:

La trasparenza soddisfa il principio dell’accuratezza: in condizioni di incertezza, gli algoritmi trasparenti sono spesso altrettanto accurati degli algoritmi della scatola nera.49

Ciò nondimeno, gli algoritmi della scatola nera affollano le aule di giustizia e altri luoghi in cui vengono prese decisioni ad alto rischio, a causa di una fiducia incondizionata nella complessità e nell’opacità.

scaricare

Disconoscimento:
Questo sito non memorizza alcun file sul suo server. Abbiamo solo indice e link                                                  contenuto fornito da altri siti. Contatta i fornitori di contenuti per rimuovere eventuali contenuti di copyright e inviaci un'email. Cancelleremo immediatamente i collegamenti o il contenuto pertinenti.